PEEK: Context Map as an Orientation Cache for Long-Context LLM Agents
PEEK:面向长上下文LLM Agent的上下文地图缓存
🧭 Agent长上下文交互的上下文知识缓存与更新 ★ 深度解读
MIT CSAIL · Stanford University
将可复用定向知识缓存为固定大小的上下文地图,显著提升Agent在重复长上下文任务上的准确率和效率。
📌 工作参考价值(4 点)
- 在电商场景(如反复查询商品库、用户评论语料)中,可以维护一个轻量级上下文地图,存储语料结构、关键实体、常用常量等可复用知识,避免每次推理都从零探索。
- Distiller从Agent执行轨迹中自动提取可迁移的上下文知识,而不引入任务特定噪声,这一思路可借鉴为Agent经验回放与知识累积模块。
- Cartographer与Evictor的分离设计(结构化编辑+优先级驱逐)确保缓存紧凑且更新不产生重复/冲突,适合需要固定token预算的生产环境。
- 即使只需极少轮次(m≤4)的缓存更新就能带来显著收益,这对成本敏感的在线推理系统极具参考价值。